Противно на докладите, OpenAI вероятно не изгражда AI, застрашаващ човечеството

Изобретил ли е OpenAI AI технология с капацитета да „ заплаши човечеството “? От някои от последните заглавия може да сте склонни да мислите по този начин.

Ройтерс и The Information за първи път оповестиха предходната седмица, че няколко чиновници на OpenAI са отбелязали в писмо до борда на шефовете на стартъпа на AI, „ сръчност “ и „ евентуална заплаха “ от вътрешен проучвателен план, прочут като „ Q* “. Този AI план, съгласно отчета, би могъл да реши избрани математически проблеми – въпреки и единствено на равнище начално учебно заведение – само че съгласно откривателите имаше късмет да се построи към неосезаем механически пробив.

Има в този момент се разисква дали бордът на OpenAI в миналото е получил такова писмо -- The Verge цитира източник, който допуска, че не е. Но оформянето на Q* настрани, Q* в реалност може да не е толкоз монументално – или заплашително – колкото звучи. Може даже да не е ново.

Изследователите на AI в X (бивш Twitter), в това число основният академик на Meta в региона на AI Yann LeCun, незабавно бяха скептични, че Q* е освен това от продължение на съществуващата работа в OpenAI – и други проучвателен лаборатории за изкуствен интелект. В обява на X Рик Ламърс, който написа бюлетина на Substack Coding with Intelligence, уточни лекция за посетител на MIT, която съоснователят на OpenAI Джон Шулман изнесе преди седем години, по време на която той разказа математическа функционалност, наречена " Q*. "

Няколко откриватели считат, че „ Q “ в името „ Q* “ се отнася до „ Q-learning “, техника на AI, която оказва помощ на модела да се учи и да се усъвършенства при съответна задача, като взема – и получава заплащане за – съответни " верни " дейности. Изследователите споделят, че в това време звездичката може да е отпратка към A*, логаритъм за инспекция на възлите, които построяват графика, и проучване на маршрутите сред тези възли.

Моля, игнорирайте потопа от цялостни нелепости за Q*.
Едно от главните провокации за възстановяване на надеждността на LLM е да се размени прогнозирането на автоматизирани регресивни токени с обмисляне.

Почти всеки топ лаборатория (FAIR, DeepMind, OpenAI и т.н.) работи върху това и някои към този момент са разгласили...

— Yann LeCun (@ylecun) 24 ноември 2023 година

https: //platform.twitter.com/widgets.js

И двете съществуват от известно време.

Гугъл DeepMind приложи Q-learning, с цел да построи AI логаритъм, който може да играе игри на Atari 2600 на човешко равнище... през 2014 година A* води началото си от академична публикация, оповестена през 1968 година И откриватели от Калифорнийския университет в Ървайн преди няколко години изследваха подобряването на A* с Q-обучение – което може да е тъкмо това, което OpenAI в този момент преследва.

Тутове от RickLamershttps://platform.twitter.com/widgets.js

Нейтън Ламбърт, откривател в Института Алън за ИИ, сподели пред TechCrunch, че има вяра, че Q* е обвързван с подходи в AI „ най-много [за] проучване на математически проблеми в гимназията “ – без да унищожава човечеството.

„ OpenAI даже показа работа по-рано тази година, подобрявайки математическото мислене на езиковите модели с техника, наречена модели за заплащане на процеса, “ сподели Ламбърт, „ само че това, което остава да се види, е по какъв начин по-добрите математически качества вършат нещо друго, с изключение на да създадат [задвижвания от AI чатбот на OpenAI] ChatGPT по-добър асистент за шифроване. “

Марк Ридл, професор по компютърни науки в Georgia Tech, беше по сходен метод сериозен към отчетите на Reuters и The Information за Q* – и по-широкия медиен роман към OpenAI и устрема му към неестествен общ разсъдък (т.е. AI, който може да извършва всяка задача толкоз добре, колкото и човек). Ройтерс, цитирайки източник, загатна, че Q* може да бъде стъпка към неестествен общ разсъдък (AGI). Но откривателите – в това число Riedl – оспорват това.

Хората споделят, че това е Q*https://t.co/rI5dz0Maf7
Изглежда правдоподобно, макар че е от май 2023 година и никой не си е изгубил мозъка от това, нито би трябвало.

— Марк Ридл (@mark_riedl) 25 ноември 2023 година

https://platform.twitter.com/widgets.js

" Няма доказателства, които да допускат, че огромни езикови модели [като ChatGPT] или друга технология, която се създава в OpenAI, са на път към AGI или някой от сюжетите за неизбежност “, сподели Ридъл пред TechCrunch. „ Самият OpenAI в най-хубавия случай е бил „ бърз почитател “, като е взел съществуващи хрумвания... и е намерил способи да ги усили. Въпреки че OpenAI наема първокласни откриватели, огромна част от това, което са създали, може да бъде направено от откриватели в други организации. Би могло да се направи и в случай че откривателите на OpenAI бяха в друга организация.

Ридл, сходно на Ламбърт, не предполагаше дали Q* може да включва Q-обучение или A*. Но в случай че включваше или – или композиция от двете – би било в сходство с актуалните трендове в проучванията на ИИ, сподели той.

„ Това са всички хрумвания, които се преследват интензивно от други откриватели в университетските среди и промишлеността, с десетки публикации по тези тематики през последните шест месеца или повече ", добави Ридл. „ Малко евентуално е откривателите от OpenAI да са имали хрумвания, които да не са имали и забележителен брой откриватели, които също преследват напредъка в ИИ. "

Това не значи, че Q* – за което се твърди, че е взел участие Иля Суцкевер, основен академик на OpenAI – може да не реалокира иглата напред.

Ламърс твърди, че в случай че Q* употребява някои от техниките, разказани в публикация, оповестена от откриватели на OpenAI през май, може " доста " да усили опциите на езиковите модели. Въз основа на публикацията, OpenAI може да е разкрил метод за управление на „ разсъждаващите вериги “ на езиковите модели, споделя Ламърс – позволявайки им да насочват моделите да следват по-желани и разумно здрави „ пътища “ за реализиране на резултати.

„ Това би направило по-малко евентуално моделите да следват „ непознато за човешкото мислене “ и подправени модели, с цел да стигнат до злонамерени или неверни изводи “, сподели Ламърс. „ Мисля, че това в действителност е победа за OpenAI във връзка с подравняването... Повечето откриватели на ИИ са съгласни, че имаме потребност от по-добри способи за образование на тези огромни модели, тъй че да могат по-ефективно да употребяват информация. “

Но каквото и да е излиза от Q*, то – и относително простите математически уравнения, които взема решение – няма да значи крах за човечеството.